Diederik P. Kingma
概述 (50-200字符)
Diederik P. Kingma 是荷兰机器学习研究员,以提出 Adam 优化算法和变分自编码器(VAE)闻名。现任 OpenAI 研究科学家,此前在 Google Brain 和 OpenAI 工作。
关键内容 (≥300字符, 用双链)
- Adam 优化器:2014 年与Jimmy Ba共同提出Adam(自适应矩估计)优化算法,结合Momentum(动量)和RMSProp的优点,引入偏差修正机制。该算法成为深度学习使用最广泛的优化器,默认参数开箱即用,被誉为深度学习的"自动挡"。论文发表于 ICLR 2015。
- 变分自编码器(VAE):2013 年与 Max Welling 共同提出 Auto-Encoding Variational Bayes,将变分推断与自编码器结合,成为生成模型的核心方法之一。VAE 与 GAN、Diffusion 并列为三大生成模型范式。
- 学术影响:Kingma 的研究聚焦于概率建模、生成模型和优化方法。他的工作对现代深度学习训练基础设施产生了深远影响——Adam(自适应矩估计)至今仍是 Transformer、GAN、强化学习等场景的默认优化器选择。
来源
- [Kingma, D. P., & Ba, J. (2014). Adam: A method for stochastic optimization. ICLR 2015.] — Adam 论文
- [raw/articles/ai-papers/machine-learning/11_adam_2014.md] — 源文件
相关
- Jimmy Ba — co_author
- Adam: A Method for Stochastic Optimization (2014 论文) — authored
- Adam(自适应矩估计) — co_invented
- 变分自编码器(VAE) — co_invented